블로그스팟 robots.txt 설정으로 SEO 강화하기

“글을 꾸준히 쓰는데도 검색 유입이 별로 없어요…” 블로그스팟(Blogger)에서 자주 듣는 고민입니다. 해결의 출발점은 크롤링과 색인이 원활한가를 확인하는 것입니다. 그 핵심 스위치가 바로 robots.txt입니다. 본 글은 초보자도 그대로 따라 할 수 있도록 개념 → 설정 → 실전 템플릿 → 테스트 → 문제해결 순서로 정리했습니다.


1) robots.txt란 무엇이고, 왜 중요할까?

robots.txt는 검색엔진(크롤러)에게 “이 경로는 읽어도 된다/읽지 마라”를 알려주는 안내표입니다. 적절한 설정은 중복 페이지의 색인을 막고, 콘텐츠 페이지에 크롤링 예산을 집중하게 해 SEO 효율을 끌어올립니다. 반대로 잘못 설정하면 전체 사이트가 차단되거나, 중요한 글이 색인 누락될 수 있으니 주의가 필요합니다.

중요: robots.txt는 “색인을 금지/허용”이 아니라 “크롤링 금지/허용”을 지시합니다. 이미 수집된 페이지의 색인 제거는 noindex 메타태그나 Search Console의 색인 관리로 처리합니다.

2) 블로그스팟에서 robots.txt 설정 위치

  1. Blogger 대시보드 → 설정크롤러 및 색인(또는 검색 환경설정)
  2. 사용자 정의 robots.txt 사용을 “예”로 전환
  3. 입력창에 원하는 규칙을 붙여넣고 저장
  4. https://내도메인/robots.txt 접속해 적용 확인

기본적으로 블로그스팟은 /search 경로(라벨/검색 결과)를 차단하는 것을 권장합니다. 이 경로는 중복 목록 페이지라서 콘텐츠 페이지보다 우선적으로 색인되면 SEO에 불리할 수 있습니다.


3) 바로 쓰는 실전 템플릿 4종

3-1. 기본 권장 템플릿 (가장 많이 쓰는 안전한 형태)

User-agent: *
Disallow: /search
Allow: /

Sitemap: https://example.blogspot.com/sitemap.xml
  
  • /search : 라벨/검색 결과 목록 차단
  • Allow: / : 나머지 모든 경로 크롤링 허용
  • Sitemap: : 사이트맵 위치 전달(커스텀 도메인이면 해당 도메인으로)

3-2. 커스텀 도메인 연결 블로그

User-agent: *
Disallow: /search
Allow: /

Sitemap: https://yourbrand.com/sitemap.xml
  

커스텀 도메인(yourbrand.com)을 연결했다면 반드시 도메인 형태의 사이트맵 URL을 기입하세요.

3-3. 특정 라벨(카테고리)만 차단하고 싶을 때

User-agent: *
Disallow: /search/label/임시
Disallow: /search/label/베타테스트
Disallow: /search
Allow: /

Sitemap: https://example.blogspot.com/sitemap.xml
  

내부 테스트용 라벨을 공개하지 않으려면 위처럼 개별 라벨을 별도 차단할 수 있습니다. 단, 실제 본문(/YYYY/MM/slug.html)은 차단하지 마세요.

3-4. 이미지·첨부 경로를 열고 목록만 차단

User-agent: *
Disallow: /search
Allow: /img/
Allow: /

Sitemap: https://example.blogspot.com/sitemap.xml
  

이미지 경로(/img/)는 열어두고 목록 페이지를 막아, 이미지 검색 노출을 확보하는 구성입니다.

권장 팁: “모든 것을 막고 일부만 허용”하는 방식보다 “기본 허용 + 목록만 선택 차단”이 안전합니다.

4) 흔한 실수 7가지와 해결책

실수 #1. 전체 차단(Disallow: /)

User-agent: *
Disallow: /
  

문제: 모든 크롤링 금지 → 색인/유입 급감 → 애드센스 승인/수익 모두 타격

해결: 즉시 기본 템플릿으로 교체 후 Search Console에서 색인 재요청

실수 #2. 사이트맵 누락

문제: 새 글 발견·색인 지연

해결: Sitemap: https://도메인/sitemap.xml을 반드시 포함

실수 #3. 본문 경로(/YYYY/MM/slug.html) 차단

문제: 실제 읽히길 원하는 글이 크롤링 대상에서 제외

해결: 본문 경로는 절대 차단하지 말 것. 목록/라벨만 선택 차단

실수 #4. 테스트 라벨을 공개

문제: 품질 낮은 초안/테스트 문서가 색인

해결: 비공개 라벨은 /search/label/라벨명 차단

실수 #5. 중복 규칙 과다

문제: 관리 복잡/오동작 위험

해결: “간결한 허용 + 선택적 차단” 원칙 유지

실수 #6. 크롤링 차단으로 색인 삭제를 기대

문제: robots 차단은 색인 제거가 아님

해결: 삭제는 noindex 또는 Search Console ‘색인에서 제거’ 사용

실수 #7. Crawl-delay, Host 등 비표준 지시어 남발

문제: Google은 해당 지시어를 무시. 혼란만 가중

해결: 표준 규칙만 사용(Allow/Disallow/Sitemap)


5) robots.txt와 함께 해야 할 필수 SEO 세팅

  • 검색 설명(meta description) 활성화: 설정 → 메타 태그 → 설명 입력
  • 모바일 반응형 테마: 가독성과 Core Web Vitals에 직접 영향
  • 이미지 alt 텍스트: 이미지 검색 유입 증대 & 접근성 향상
  • 내부 링크 전략: 목록 차단과 병행하여 본문 간 연결 강화
  • ads.txt 설정: 수익 안정성(수익 → 수익 메뉴에서 발급값 입력)

6) 적용 후 테스트: 제대로 작동하는지 확인하는 법

  1. 직접 열어보기: 브라우저에서 /robots.txt 접속 → 저장 내용과 일치?
  2. Search Console: ‘URL 검사’로 글 URL 입력 → “크롤링 허용”인지 확인
  3. 실제 차단 확인: 차단하고 싶은 목록 URL(예: /search/label/임시)을 입력 → “차단됨”이면 정상
  4. 사이트맵 상태: 서치콘솔 → 사이트맵 → 제출/처리 상태 확인
팁: robots 변경 후 반영에는 시간이 걸릴 수 있습니다. 중요한 글은 URL 검사를 통해 색인 요청을 함께 진행하세요.

7) Blogger에 최적화된 권장 구조(요약)

User-agent: *
# 라벨/검색 목록은 차단
Disallow: /search
# 본문은 모두 허용
Allow: /
# 사이트맵 명시(커스텀 도메인 사용 시 변경)
Sitemap: https://example.blogspot.com/sitemap.xml
  

여기에 테스트용 라벨만 추가 차단하거나, 이미지 경로를 명시적으로 허용하는 정도만 보완하면 대부분의 블로그는 충분합니다.


8) FAQ: 자주 묻는 질문

Q1. robots.txt를 수정하면 기존 색인이 즉시 삭제되나요?

아니요. robots는 “크롤링 허용/차단” 지시입니다. 이미 색인된 페이지 제거는 noindex 또는 Search Console ‘제거’ 기능으로 처리합니다.

Q2. /search를 열면 안 되나요?

가능은 하지만 권장하지 않습니다. 라벨/검색 목록은 중복·저품질로 평가될 소지가 있어 본문보다 먼저 색인되면 손해입니다.

Q3. 포스트 발행 직후 색인이 느려요.

사이트맵을 올바르게 명시했는지 확인하고, Search Console에서 URL 검사를 통해 수동 색인 요청을 병행하세요.

Q4. 특정 글만 임시로 숨기고 싶어요.

robots가 아닌 검색 설명/메타noindex를 해당 글에만 적용하거나, 비공개로 전환하세요.

Q5. 커스텀 도메인인데 blogspot.com/sitemap.xml을 써도 되나요?

가능하나, 일관성과 관리 편의상 현재 서비스 도메인 기준으로 적는 것을 권장합니다.


9) 승인과 수익을 잇는 체크리스트

항목 상태 비고
robots.txt 기본 템플릿 적용 /search 차단, 본문 허용
사이트맵 경로 기입 도메인 기준 sitemap.xml
테스트 라벨 차단(선택) /search/label/임시 등
Search Console 연결/검사 URL 검사로 핵심 글 색인 요청
모바일 반응형/속도 점검 이미지 최적화, 불필요 스크립트 제거
ads.txt 설정 수익 안정성

10) 마무리: “간결한 허용 + 선택적 차단”이 정답

robots.txt는 복잡하게 꾸미는 것보다 간결함이 성능입니다. 블로그스팟에서는 /search 목록 차단과 사이트맵 명시만으로도 크롤링 효율이 크게 개선됩니다. 여기에 Search Console 연동, 내부 링크, 모바일 최적화까지 더하면 애드센스 승인 → 안정적 유입 → 수익화의 선순환 구조를 만들 수 있습니다.

한 줄 요약: Allow는 넓게, Disallow는 정확히. 목록은 막고, 본문은 열고, 사이트맵은 꼭 알리자!

📎 함께 보면 좋은 글

© 2025 Blogger SEO Lab. 이 문서는 교육 목적으로 제공되며, 설정 변경 전 백업을 권장합니다.

댓글

이 블로그의 인기 게시물

애드센스 초보를 위한 블로그스팟 SEO 체크리스트

블로그스팟 SEO 최적화로 애드센스 승인률 2배 높이는 비법

블로그스팟 애드센스 승인 전 필수 준비물 7가지